Multimodal Continuous Reasoning via Asymmetric Mutual Variational Learning
非对称互变分学习实现多模态连续推理
🧭 连续潜变量推理 · 训练-推理校准
Shanghai Jiao Tong University · Ant Group
提出AMVL框架,通过双向KL散度校准缓解训练-推理不匹配,提升连续潜变量推理稳定性
📌 工作参考价值(4 点)
- 电商推荐中,生成式item编码(如Semantic ID)常依赖答案信息(下一item)进行连续潜变量建模,AMVL的双向KL正则可防止后验泄漏未来信息,提升在线推理质量。
- 多模态Agent决策时,若使用连续潜变量规划动作,逆KL惩罚后验可避免利用未来信息,使规划模型更贴近真实推理环境。
- 工程上,双向KL仅增加一个正则项,可简便集成到现有VAE推荐框架,适用于对话式推荐、动态创意生成等交互生成任务。
- 论文对“先验污染”的理论分析以及训练-推理不匹配的量化,为推荐系统中teacher-forcing训练策略的改进提供了新视角。